Các bản ghi chép về vùng đất mà ngày nay là Jakarta là một cảng có nguồn gốc có thể truy nguyên là một khu định cư của người Ấn giáo thế kỷ IV. Đến thế kỷ XIV, đây đã là một cảng lớn của vương quốc Ấn giáo Sunda.Đội tàu châu Âu đầu tiên đã đến đây năm 1513 gồm bốn con tàu Bồ Đào Nha từ Malacca. Malacca bị Alfonso d'Albuquerque xâm lược năm 1511 khi người Bồ Đào Nha tìm kiếm gia vị và đặc biệt là hồ tiêu. Mối quan hệ giữa vương quốc Sunda và người Bồ Đào Nha được tăng cường khi một người Bồ Đào Nha khác tên là Enrique Leme viếng thăm Sunda với ý định tặng quà. Ông ta đã được đón tiếp nồng nhiệt năm 1522, và nhờ đó, người Bồ Đào Nha đã nhận được quyền xây kho và mở rộng pháo đài ở Kalapa (tên của vị trí). Đây được những cư dân Sunda xem như sự củng cố địa vị của họ chống lại các đội quân Hồi Giáo đang có thế lực tăng lên của Sultanate (vương quốc Hồi Giáo) Demak ở Trung Java.

Năm 1527, những đội quân Hồi Giáo đến từ Cirebon và Demak dưới sự lãnh đạo của Fatahillah đã tấn công Vương quốc Sunda. Nhà vua đã mong đợi người Bồ Đào Nha đến và giúp giữ quân đội của Fatahillah, do một hiệp ước đã được ký kết giữa Sunda và người Bồ Đào Nha. Tuy nhiên, quân đội Fatahillah đã thành công và đã chiếm thành ngày 22 tháng 6 năm 1557 và Fatahillah đã quyết định đổi tến "Sunda Kelapa" thành "Jayakarta" ("Chiến thắng huy hoàng").

Người theo Sultan Banten (vị trí của Jayakarta), Hoàng tử Jayawikarta, cũng góp phần chính trong lịch sử của Jakarta. Năm 1596, nhiều tàu Hà Lan đã đến Jayakarta với ý định buôn bán gia vị, gần giống như người Bồ Đào Nha vậy. Năm 1602, chuyến đi đầu tiên của Công ty Đông Ấn Anh, dưới quyền chỉ huy của Sir James Lancaster, đã đến Aceh và giương buồm đi Bantam nơi ông ta đã được phép xây đồn trạm và đã trở thành trung tâm mậu dịch của Anh ở Indonesia cho đến năm 1682. Trong trường hợp này, Hoàng tử đã xem việc người Hà Lan đến đây một cách nghiêm trọng do người người Hà Lan trước đó đã xây nhiều tòa nhà quân sự. Hoàng tử Jayawikarta rõ ràng trước đó cũng đã có mối liên hệ với người Anh và đã cho phép họ xây nhiều ngôi nhà trực tiếp ngang qua các tòa nhà của người Hà Lan năm 1615. Khi các mối quan hệ giữa Hoàng tử Jayawikarta và người Hà Lan sau đó xấu đi, những người lính của ông đã tấn công pháo đài của Hà Lan với hai tòa nhà chính, Nassau và Mauritus. Nhưng thậm chí với sự trợ giúp của 15 tàu từ Anh, quân đội của Hoàng tử Jayakarta cũng không thể đánh bại người Hà Lan vì Jan Pieterszoon Coen (J.P. Coen) đã đến Jayakarta vừa kịp lúc, đẩy lui tàu Anh và đốt cháy các đồn trạm buôn của người Anh.

Mọi việc đã thay đổi đối với Hoàng tử khi Sultan (vương quốc Hồi Giáo) Banten phái lính và triệu mời Hoàng tử Jayawikarta đến để thiết lập mối quan hệ gần gũi với người Anh mà không có sự chấp thuận của chính quyền Banten. Quan hệ giữa cả Hoàng tử Jayawikarta và người Anh với chính quyền Banten trở nên xấu hơn và dẫn đến quyết định của Hoàng tử dời đến Tanara, một nơi nhỏ ở Banten, cho đến khi ông qua đời. Điều này giúp người Hà Lan trong những nỗ lực của họ thiết lập quan hệ gần gũi với Banten. Người Hà Lan đến lúc này đã đổi tên thành "Batavia", và duy trì tên này cho đến 1942.

Sau Thế chiến II, thành phố Batavia được đổi tên lại thành là "Jakarta" (một cách viết ngắn của Jayakarta) sau khi giành được độc lập từ Hà Lan năm 1949

Sau chiến tranh thế giới II, chính quyền Cộng hòa Indonesia đã rút khỏi Jakarta khi thành phố này bị chiếm bởi quân Đồng Minh trong lúc đang tham gia Cách mạng Dân tộc Indonesia và tạm thời dời thủ đô đến Yogyakarta. Năm 1950, khi độc lập được bảo đảm, Jakarta lại một lần nữa trở thành thủ đô của quốc gia. Chủ tịch sáng lập Cộng hòa Indonesia, Sukarno, dự định Jakarta là một thành phố quốc tế lớn, và xúi giục các dự án lớn do chính phủ tài trợ với kiến ​​trúc quốc gia và chủ nghĩa hiện đại công khai. Các dự án bao gồm một đường cao tốc, đại lộ chính (Jalan MH Thamrin-Sudirman), tượng đài như Đài tưởng niệm Quốc gia, khách sạn, trung tâm mua sắm và tòa nhà quốc hội mới. Tháng 10 năm 1965, Jakarta là nơi xảy ra cuộc đảo chánh bất khả chiến bại, trong đó 6 vị tướng hàng đầu bị giết hại, làm tràn ngập bạo lực chống chủ nghĩa cộng sản, trong đó nửa triệu người đã bị giết, trong đó có nhiều người Hoa theo Lệnh Mới của Suharto. Một tượng đài là nơi mà các thân tướng đã bị bỏ rơi.

Năm 1966, Jakarta được tuyên bố là "vùng đặc biệt" (daerah khusus ibukota), do đó đạt được một trạng thái tương đương với một tỉnh. Trung tướng Ali Sadikin phục vụ như Thống đốc từ giữa những năm 1960 bắt đầu "Trật Tự Mới" cho đến năm 1977; ông khôi phục đường sá và cầu, khuyến khích nghệ thuật, xây dựng một số bệnh viện, và một số lượng lớn các trường mới. Ông cũng giải toả những người sống ở khu ổ chuột cho các dự án phát triển mới - một số vì lợi ích của gia đình Suharto - và cố gắng loại bỏ xe kéo và cấm người bán hàng rong. Ông bắt đầu kiểm soát di cư đến thành phố để bắt đầu tình trạng quá tải và đói nghèo. Đầu tư nước ngoài góp phần vào sự bùng nổ bất động sản làm thay đổi bộ mặt của thành phố.

Sự bùng nổ đã kết thúc với cuộc khủng hoảng tài chính châu Á 1997, đưa Jakarta trở thành trung tâm của bạo lực, phản đối và vận động chính trị. Sau 32 năm cầm quyền, sự ủng hộ của Tổng thống Suharto bắt đầu suy yếu. Căng thẳng đã lên đến đỉnh điểm khi bốn sinh viên bị các lực lượng an ninh bắn chết tại Đại học Trisakti; bốn ngày bạo loạn và bạo lực xảy ra đã giết chết khoảng 1.200 người và phá hủy hoặc phá hủy 6.000 tòa nhà. Phần lớn các cuộc bạo loạn nhắm vào người Trung Quốc ở Indonesia. Suharto đã từ chức tổng thống, và Jakarta vẫn là trọng tâm của sự thay đổi dân chủ ở Indonesia. Các vụ đánh bom liên kết với Jemaah Islamiah xảy ra gần như hàng năm ở thành phố giữa năm 2000 và năm 2005, với một vụ đánh bom khác trong năm 2009